2020世界人工智能大会云端峰会正在进行中（7月9-11日），马云、马斯克、李彦宏等大咖畅谈了对AI（人工智能）的未来设想。
马云：如果过去数字技术是让生活变好，今后数字技术是让人类能够更好的生存下去。疫情没有改变技术变革趋势，但是疫情加速了数字技术的变革。马化腾：要做到“AI向善”，就要做到人工智能实现“可知、可控、可用、可靠”。李彦宏：人工智能将从经济领域渗透到更加广泛的社会领域，全社会和全球范围内智能协作与制度的创新将是这个阶段的主要特点，最终的协作和变革又会对经济产生更加深远的影响，人类终将进入智能社会。马斯克：只要有明确的游戏规则，在任何游戏中人工智能肯定都会玩得比人类要好。大咖对AI的理解极为深刻，虽然他们只谈到AI巨大的应用场景，但也隐含着对AI可能对人类社会冲击的担忧。我们大众对AI的认识又知多少呢？人类会被AI替代吗？人类应该如何与AI相处？未来人类社会图景是怎样的？
《道德哲学与人类学·伦理学术8》
2020年春季号总第008卷
邓安庆 主编
上海教育出版社丨2020年6月
《奇葩说》第6季有道辩题“爱人离世，你会把 TA 的记忆交给 AI 吗？” 一种认为人工智能逃不开数学模型，只是一个实现功能的小程序，所以将记忆交给人工智能利大于弊。另一种则认为人工智能获取了逝者的记忆就能够成为逝者的替身，会颠覆人类思想体系，因此弊大于利。这两种观点固然都有一定道理，但却折射出大众对人工智能现状及发展趋势不甚了解而走入的两种极端。第一种观点，即人工智能只是数学模型，无疑是一种狭隘的认知。机器已经在很多方面获得了超过人类的能力，且具有不可控性。IBM公司的Project Debater在全球最古老的辩论协会剑桥联合会上已经能够帮助人类辩论“人工智能是否弊大于利”。该机器提取了1100 多个人类的观点，形成了自己的论点和综述。最终Project Debater帮助人类驳斥了人工智能弊大于利的说法。它是第一个可以在复杂主题上与人类辩论的AI系统，看似简单的功能背后包括三项开拓性的能力：长语音理解、语言组织和表达、模拟辩论困境和组织论点。Project Debater不仅表现出了对机器人类语言的掌控能力，还在帮助人们做出更合理决策方面表现出了突破性的价值。
第二种观点认为，人工智能会成为跟人类相似的存在，让我们无法分辨真伪。这种观点在目前来看，尤其是从哲学的角度来看，是陷入了物理还原的误区，是源自对人类智能的误解。人类智能具有独特性，人工智能如果依旧按照当前的路径发展，那么想要模拟人类智能达到以假乱真的地步就难以实现。人工智能诞生之初就是为了模拟人类的智能，那么人类的智能到底是从何来的呢？经过思考与总结，我们提出了认知坎陷来定义这种与物理世界相对的存在。认知坎陷可以被简单地理解为具有生命力的意识片段。这个世界如此复杂，但人类却能够了解它、改造它，这正是因为人类构建了认知坎陷。认知坎陷是人类智能的体现，也是人类智能的来源。人类构建意识世界的能力是千百年进化而来的，与人类成长过程和外界环境要求相适应。人类在3-5岁，仅仅花了差不多两年就能学会一门语言，但是学第二门外语可能学了十年还是和母语者水平差距很大。这个世界对小孩子来说是复杂的、模糊的，在他还不会说话的时候家长就开始教他一些概念，但是这个学习过程很慢。到有一天小孩子突然意识到了世界是怎么回事，开始能说出清晰的单词，然后就能够迅速地成长起来。神童的产生也可以从这个角度解释，比如莫扎特可能是以音乐来认知这个世界的，所以他能够产生自己独特的音乐风格，能够快速的开始创作，逐渐超过他的父母、老师。小孩子学第一门语言是很快的，因为这其中有认知世界的需要。我们学习是要开显新的认知坎陷， 如果每个字都知道是什么意思，但是放在一起就不知道了，就是我们还没有产生共振，还没有获得这个认知坎陷。我们小学学语文的时候，也往往需要多读、需要启发式的学习，然后才能领悟其中的意思。机器能不能像小孩子一样学习是人工智能研究所关心的问题，按照现有发展方式很难做到，因为现在机器的学习过程说到底只是目标函数的优化。进化中的各种基因突变让人类产生了敏感的触觉，然后有更加发达的大脑、更强的行动能力。触觉使我们有强大的自我意识，进而能够构建出认知坎陷，它所具有的丰富生命力让意识世界超越物理世界的存在，发展出人类璀璨的文明。这些都不是宇宙大爆炸时候就决定了的，都是可以不发生但是发生了的。人类智能的产生是一种机缘，而人类未来的发展则需要充分利用人类智能来主导。人工智能没有限制的发展必然会产生危机，那么机器能够最终模拟人类智能，超越人类智能，取代人类智能吗？我们认为人类有主体性，能够自如地处理模糊的问题，从“感性”而不是“理性”的角度快速地略过可能出现的暗无限。这是人工智能这种智能形式很难具备的能力。人的超越性还在于相信不存在的东西存在，这也是神性的体现。我们可以相信无穷大的存在、可以相信上帝的存在、可以相信圣人的存在，即使我们没有见过也不知道没有明确的定义。这个世界因为人类的超越性而变得很精彩。当研究达到一定的深度，我们发现物理世界很简单，可以遵循物理方程的规律分析，但是人能在这个物质世界上面汲取所需、建构原来不存在的东西。这种超越性让我们相信机器虽然能够在某些方面表现出很强的能力，但是人类仍然存在机器不可取代之处。人工智能改变人类的延续方式是改变生活方式和情感方式之后的必然趋势。对每个个体而言，当我们能从低效率的工作中解放出来，我们就有可能更多进行有创造性的工作、追寻人生的价值；而当机器在我们的精神世界中也占有一席之地，我们所珍惜的事物、做出决定的理由都将会被改变。假使所有人类的一生都被机器比记录帝王传记更加细致、客观地记录下来，我们是否能够从千万个体中训练出一个“教学”的机器人，告诉小孩在每个成长阶段应该做出什么样的选择才更有可能走向更成功的人生？虽然这是一个还不能够实现的脑洞，但是从技术层面上来讲，只要数据能够提供支持，就很有可能实现。那么从更宏观的角度来说，机器就能够决定人类发展的走向。 人工智能对人类整体所能造成的影响有多重可能的形式，这种影响产生于生活中的各个角落，然后成为一种不可逆的趋势。这种趋势并不是马上替代人类、消灭人类，虽然这种可能性仍然存在。但更可能的是在人类的成长、发展过程中扮演一个重要的角色，从而颠覆我们对世界、对自身的认知。因此，我们人类应该更多考虑的是如何跟这个角色相处，如何解决道德的问题，让这个社会依然能够保持多样性、有可持续发展的空间。当人工智能充分发展到成为一种社会资源、使计算资源和存储资源更为重要的时候，又产生了一种新的两极分化的可能。获得人工智能资源的人能够具有很强的能力，迅速拉开与无法获得人工智能资源的人之间的距离。古代君王和民众之间有官吏作为代理，现在的代理可以转变为机器，分隔开了能支配机器和不能支配机器的两种阶层。机器显然比人的受控的程度更高，这就会导致这种两极分化处于较为一种稳固的状态，能够分化到非常强的程度而不至于崩溃。当两极分化到了极致，就可能形成半神阶层和无用阶层的一种社会。无用阶层对社会没有贡献，而少数的半神阶层能够推动社会的发展，还能够供养起无用阶层。虽然这看起来也会是一种平衡的状态，甚至有人觉得作为无用阶层能够生活下去也是一件好的事情。但是从整体上来说，这将会是一个垄断的社会，人们的自我肯定需求难以得到满足。与历史上人们所追求反垄断、均贫富的趋势相悖，这样的社会在本质上来说还是脆弱的，到头来还是很有可能崩掉。那么是什么时候崩掉，崩掉会产生的影响可能是毁灭性的。我们希望的社会图景是和谐的、普惠的。和谐既是指人与人之间的和谐，也是指人与人工智能的关系和谐。普惠从较高层面来讲即人人平等，而从根本上来讲是每个主体都能发挥自己的能动性。人工智能的发展让我们要更多地反思我们自己作为人的独特性。人类和机器的区别是一方面，同样重要的还有人和“行尸走肉”（Zombie）之间的区别。Zombie处于一种没有目的的游荡状态，缺乏自我意识产生的目的性，更可怕的是Zombies之间并没有什么不同，相互之间可以取代。人类的自我意识是如何塑造的、会如何发展还没有普遍共识，但是自我意识具有差异性是毋庸置疑的。这种差异性导致人与人不能够相互取代，每个人都有其存在的价值。要找到在人工智能时代的自我价值，就必须要找到我们的个性、发挥个性的价值。以上两种社会图景到底是哪一方会成为现实我们并不知道，当然也还有别的可能性存在，但是这两种可能性都存在且具有代表性。前者是垄断的、分离的，后者是普惠的、共享的。前者是按照目前的发展趋势很有可能发生的，而后一种是更顺应人类的追求、是我们所能期望的最好的图景，也应该是我们的奋斗的目标。或许现在看来这种设想还很遥远，但人类改造世界的能力已经足够强大。现在我们做的每一个决定都可能是蝴蝶扇动了翅膀，因此对未来的塑造需要从此刻开始。
以上内容节选自蔡恒进，洪成晨，蔡天琪：《人工智能与人类未来》，邓安庆主编：《道德哲学与人类学·伦理学术8》，2020年6月。
作者简介
蔡恒进：武汉大学计算机学院教授，博士生导师，卓尔智联研究院执行院长，主要从事管理科学与工程，软件工程和人工智能研究。
洪成晨：武汉大学软件工程研究生，研究方向为人工智能。
蔡天琪：卓尔智联研究院高级研究员，研究方向为区块链技术，自然语言处理。
·END·
欢迎订阅《伦理学术》
投稿邮箱：ethica@163.com或fudandeng@vip.163.com
关注公众号：Academia_Ethica或长按二维码